AI 딥페이크로 임원 얼굴·목소리 위조
영상통화 후 속은 직원, 340억 송금
홍콩에서 인공지능(AI)를 악용한 딥페이크(DeepFake) 기술로 수백원을 가로챈 피싱 사기일당이 검거됐다. 이들은 기업 임원의 얼굴과 목소리를 딥페이크 기술로 위조, 재무담당 직원을 속여 돈을 특정계좌에 입금시키도록 지시하는 수법으로 돈을 가로챘던 것으로 알려져 충격을 주고 있다. 향후 AI 기술에 대한 각국의 규제가 더욱 심화될 것으로 전망되고 있다.
4일(현지시간) CNN에 따르면 지난 2일 홍콩경찰은 브리핑을 열고 딥페이크 기술을 악용해 사기를 벌이던 일당 6명을 검거했다고 발표했다. 홍콩 경찰에 따르면 이들은 영국에 본사를 둔 홍콩의 한 다국적기업의 재무담당자에게 영상통화를 걸어 2억홍콩달러(약 340억원)를 송금하게 한 후, 돈을 가로챈 혐의를 받고 있다.
해당 기업의 재무담당자가 이들의 사기에 속은 이유는 영상통화에서 그에게 송금을 지시한 사람의 얼굴과 목소리가 실제 해당회사 최고재무관리자(CFO)와 똑같았기 때문이다. 이 담당자가 본 영상과 음성은 모두 AI를 이용해 합성·복제된 가짜였던 것으로 경찰조사에서 드러났다.
이처럼 AI를 악용해 정교한 딥페이크 기술이 만들어지고, 범죄가 성행하면서 홍콩 뿐만 아니라 전세계 경찰 당국에서 촉각을 곤두세우고 있다. 유사범죄가 국경을 넘어 곳곳에서 발생하고 있기 때문이다.
지난 2021년에는 아랍에미리트(UAE)의 한 은행에서는 평소 거래하던 대기업 임원의 전화를 받고 우리 돈 약 420억원을 송금했다가 사기범죄임이 밝혀진 적이 있다. 또한 지난해 4월 중국 네이멍구에서는 한 사업가가 친구의 목소리와 얼굴을 흉내 낸 딥보이스 영상통화에 속아 8억원을 송금한 사기사건도 보도됐다. 지난달에는 미국 팝스타 테일러 스위프트의 얼굴에 음란물을 합성한 사진이 퍼져 논란이 되기도 했다.
특히 올해는 전세계 40여개국에서 각종 총선과 대선이 치러지는 '슈퍼 선거의 해'라 불리고 있어 딥페이크 기술을 악용한 각종 가짜뉴스와 범죄가 기승을 부릴 것으로 우려되고 있다.
이현우 기자 knos84@asiae.co.kr
꼭 봐야할 주요뉴스
!["에어컨은 26도로, 세탁은 5시까지 끝내줘"…찰떡같이 알아듣는 삼성 AI가전](https://cwcontent.asiae.co.kr/asiaresize/93/2024082608420295885_1724629323.jpg)
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>